Năm 876, Thượng Nhượng đã trở thành một chỉ huy trong hàng ngũ quân nổi dậy của Vương Tiên Chi, vào năm đó, Chiêu thảo phó sứ/Đô giám Dương Phục Quang đã thượng tấu lên Đường Hy Tông, nói rằng Thượng Nhượng đã chiếm cứ Tra Nha Sơn[chú 2], buộc quan quân phải triệt thoái về Đặng châu[chú 3].[1]

Cũng trong năm 876, Vương Tiên Chi và Hoàng Sào xảy ra mâu thuẫn về thỏa thuận hòa bình với triều đình Đường. Hậu quả là quân nổi dậy đã bị phân thành hai nhóm, một nhóm đi theo Vương Tiên Chi và Thượng Quân Trường, và một nhóm theo Hoàng Sào.[1] Có lẽ, Thượng Nhượng tiếp tục đi theo Vương Tiên Chi và Thượng Quân Trường, mặc dù ngay sau đó, Thượng Nhượng đã hội quân với Hoàng Sào tại Tra Nha Sơn.[2] Năm 877, Thượng Quân Trường bị quân Đường bắt rồi bị Đường Hy Tông xử tử, các nỗ lực đàm phán giữa Vương Tiên Chi và triều đình cũng chấm dứt.[2]

Vào mùa xuân năm 878, tướng Đường là Tăng Nguyên Dụ (曾元裕) đã đánh bại và giết chết Vương Tiên Chi. Thượng Nhượng đem dư chúng của Vương Tiên Chi đến hội quân với Hoàng Sào, từ đó phụng sự Hoàng Sào.[2]